LLM应用全流程开发课件

Appearance

接口状态 (Interface State) ​

在 Gradio 中，Interface 类本身是无状态的。这意味着每次用户与界面交互（例如，点击提交按钮），传递给您函数的输入值都是全新的，函数不记得之前的交互。

然而，在许多应用中，您可能需要在多次交互之间保持某些状态。例如：

  • 聊天机器人需要记住对话历史。
  • 一个允许用户逐步构建图像的应用需要保存中间步骤。
  • 一个游戏需要跟踪玩家的得分。

Interface 类通过几种方式来处理状态，主要是通过将状态作为额外的输入和输出来实现。

1. 将状态作为函数的输入和输出 ​

最直接的方法是将状态变量作为函数的额外输入和输出。这个状态变量本身也需要是一个 Gradio 组件。

python
import gradio as gr

# 假设我们想记录用户输入了多少次
def greet_and_count(name, count_str):
    count = int(count_str) + 1 # 将字符串计数转换为整数并加1
    greeting = f"你好 {name}! 你已经提交了 {count} 次。"
    return greeting, str(count) # 返回新的问候语和更新后的计数（字符串形式）

demo = gr.Interface(
    fn=greet_and_count,
    inputs=[
        gr.Textbox(label="你的名字"),
        gr.Textbox(label="提交次数", value="0") # 初始状态为 "0"
    ],
    outputs=[
        gr.Textbox(label="问候语"),
        gr.Textbox(label="提交次数") # 输出更新后的状态
    ],
    title="带状态的问候应用",
    description="这个应用会记录你提交的次数。"
)

demo.launch()

在这个例子中：

  • 我们添加了一个额外的 Textbox 组件作为输入，用于传入当前的提交次数（状态）。
  • 我们的函数 greet_and_count 接收这个计数值，对其进行更新。
  • 函数返回更新后的问候语和更新后的计数值。
  • 我们将更新后的计数值输出到界面上对应的 Textbox 组件中。这样，下一次用户提交时，更新后的计数值会再次作为输入传递给函数。

工作原理：

当用户第一次与界面交互时，inputs 中的 gr.Textbox(label="提交次数", value="0") 将其初始值 "0" 传递给 greet_and_count 函数的 count_str 参数。函数处理后，返回新的计数，这个新计数会更新界面上作为 outputs 的那个 "提交次数" 文本框。当下一次用户交互时，这个更新后的文本框的值将作为新的 count_str 传入函数，从而实现了状态的保持和更新。

2. 使用 gr.State 组件 (更推荐用于 Blocks) ​

虽然上述方法在 Interface 中可行，但对于更复杂的状态管理，尤其是在使用 gr.Blocks 时，gr.State 组件是更常用的选择。gr.State 是一个特殊的组件，它不在界面上显示，但可以在后端存储和传递数据。

在 Interface 中直接使用 gr.State 稍微不那么直观，因为它通常与 Blocks API 结合得更紧密，Blocks 提供了更细致的事件处理和组件更新控制。但概念上，你可以将一个不显示的组件（如一个隐藏的 Textbox）视作一种状态容器。

如果我们想用 Interface 模拟 gr.State 的行为（即状态不在UI上直接可见或可编辑），可以将状态组件的 visible 属性设置为 False（但这需要 Blocks 来完全控制）。在纯 Interface 中，通常状态是显式作为输入输出的。

3. 聊天历史：一个典型的状态用例 ​

gr.ChatInterface (或使用 gr.Chatbot 和 gr.Blocks 构建的自定义聊天机器人) 是状态管理的一个典型例子。聊天历史需要在每次对话轮次中保持和更新。

python
import gradio as gr

def echo_with_history(message, history):
    history.append((message, f"机器人回应: {message}"))
    return "", history # 清空输入框，返回更新后的历史

# 使用 gr.Blocks 和 gr.Chatbot 来更好地管理聊天状态
with gr.Blocks() as demo:
    chatbot = gr.Chatbot(label="聊天记录")
    msg = gr.Textbox(label="你的消息")
    # gr.State 用于存储聊天历史，它不在界面上直接显示
    # 但 Chatbot 组件会使用它来渲染聊天记录
    chat_history = gr.State([]) 

    def respond(message, chat_history_list):
        chat_history_list.append((message, f"机器人说: {message}"))
        return "", chat_history_list # 返回空字符串清空输入框，和更新后的历史列表

    msg.submit(respond, [msg, chat_history], [msg, chatbot])
    # 注意：chatbot 组件的 value 是 chat_history，它会根据 chat_history 的更新而更新

# 如果仅用 Interface，则历史需要是显式的输入输出组件
# inputs = ["text", gr.Chatbot(label="聊天记录")]
# outputs = ["text", gr.Chatbot(label="聊天记录")]
# fn = some_chat_function_that_takes_history_component_value

在 gr.Blocks 中，gr.State 可以持有 Python 对象（如列表、字典），而不仅仅是简单类型，这使得状态管理更加灵活。

何时需要在 Interface 中管理状态？ ​

  • 计数器或累加器：例如，统计按钮被点击的次数，或累积用户输入的值。
  • 简单的游戏：保存得分或游戏轮次。
  • 逐步构建：如果用户通过多次交互来构建某个结果，例如逐步填写表单的不同部分（尽管 Blocks 更适合复杂表单）。
  • 需要短期记忆的应用：当应用需要记住用户最近几次的输入或选择时。

局限性 ​

  • 全局状态 vs. 会话状态：Gradio 中的状态通常是会话特定的。每个打开您应用的用户都会有自己独立的状态。如果您需要全局状态（所有用户共享），则需要将其存储在 Gradio 应用之外（例如，数据库、文件）。
  • 复杂性：对于非常复杂的状态逻辑和多组件依赖，gr.Interface 的状态管理方式可能会变得笨拙。在这种情况下，强烈建议使用 gr.Blocks API，它提供了更强大和灵活的状态管理机制，尤其是通过 gr.State 组件和更精细的事件监听器。

总结 ​

在 gr.Interface 中管理状态主要是通过将状态表示为一个或多个组件，并将这些组件同时用作函数的输入和输出。这允许您在函数调用之间传递和修改数据。虽然这种方法对于简单的状态需求是有效的，但对于更复杂的场景，gr.Blocks 和 gr.State 提供了更优越的解决方案。